Agent Memory as Recommendation: Recommender-System Design for Long-Term Memory of LLM Agents
LLM智能体长期记忆的推荐系统设计
🧭 Agent长期记忆 · slate推荐级联 ★ 深度解读
Fudan University
把Agent记忆选择形式化为预算约束下的slate推荐，零LLM调用匹配64次重排且服务成本降3.2倍
📌 工作参考价值（4 点）
- 把记忆/上下文选择形式化为预算slate推荐：召回+学习排序+固定预算填充，可迁移到电商Agent客服、导购的多轮历史筛选，或搜索广告的query上下文优选；比动态截断更稳。
- 零LLM调用链路可落地：BM25+dense embedding双通道召回，RRF融合top128，LightGBM LambdaRank用10个轻量特征（相似度、排名、位置、长度、共享key等）排序，再按token预算贪心填充，写时无LLM成本，适合高QPS生产环境。
- 用stage factorization定位瓶颈：Acc = ai + (ac-ai)*r_pool*r_rank，先看候选池覆盖率，再看排序是否把证据放进budget；这能避免盲目换模型，直接发现是召回还是排序导致证据丢失。
- 固定预算填充优于per-query cutoff：当reward沿排序不下降时，任何cutoff都包含于fill，所以Adaptive-k类动态截断只会降低覆盖率；若存在低质量文档的负外部性，才需要set-level模型，否则别用动态截断。